Gobernanza de Inteligencia Artificial en la Rama Judicial: un buen comienzo

Camuflado por las novenas y buñuelos, el 16 de diciembre de 2024, el Consejo Superior de la Judicatura (CSJ) expidió el Acuerdo PCSJA24-12243 que estableció los lineamientos para el uso ético, seguro y responsable de la Inteligencia Artificial Generativa (GenIA) en la Rama Judicial. Este documento, surgió como respuesta al creciente uso de esta tecnología de fácil acceso (modelos comerciales gratuitos como Chat GPT) por parte de jueces y funcionarios, quienes motivados por el deseo de hacer de forma más eficiente su labor, comenzaron a experimentar con este tipo de Chatbots.

Fruto de tal experimentación que se dio en medio del bombardeo informativo en redes y otros medios sobre las limitaciones de estas herramientas—como sesgos, alucinaciones y baja explicabilidad—, fueron los propios jueces quienes señalaron preocupaciones sobre la seguridad de la información, protección de datos, fiabilidad de las respuestas y su impacto en la toma de decisiones judiciales. Así, un tanto escépticos, pero en todo caso guiados por la responsabilidad y mandato constitucional de garantizar el acceso a la justicia efectiva para todos los colombianos, fue como esta entidad se puso la camiseta para buscar maneras de resolver el interrogante de cómo alcanzar el balance entre la innovación y la regulación.

Ante la ausencia de un mandato legal explícito que obligue su expedición, este Acuerdo constituye un ejemplo de “modelo de gobernanza” basado en la compresión tanto técnica como práctica de las bondades y riesgos derivados de la adopción de, en este caso, GenIA. Entonces, la autoridad define y adopta una serie de principios (15— principalmente provenientes de marcos internacionales) encaminados a guiar el uso por parte de magistrados, jueces y empleados de la Rama Judicial por caminos no sólo legales, responsables y éticos, sino también realistas y efectivos.

A simple vista resulta curiosa la decisión de optar por un modelo de gobernanza que no sólo es distinto a la metodología europea o americana, sino que además se compone de listas cerradas de usos permitidos, restringidos y que requieren observancia de temas especiales (e.g. transparencia, responsabilidad y privacidad). Estas listas suelen ser criticadas cuando se trata de regulación de tecnología, pues representan grandes retos de adaptabilidad y vigencia. No obstante, en un contexto tan sensible como lo es la administración de justicia, vale la pena analizar esta aproximación desde un punto de vista cauteloso y garantista, pues ante la ausencia de regulación explícita por parte del Congreso, entiende la necesidad de fijar límites claros sobre lo que se puede hacer y lo que no se puede hacer, apostando a que su cumplimiento logre mitigar los riesgos.

Adicionalmente, vale la pena destacar cómo estos lineamientos no se imponen sin consideración a los retos de su implementación, pues el Acuerdo los acompaña de elementos tales como estándares de contratación pública, requerimientos de capacitación constante, deberes de monitoreo, reporte y auditoría, que les permitan mantener la guardia arriba.

No obstante, aún quedan varias preguntas por resolver, tales como: si estas medidas efectivamente serán cumplidas por los funcionarios y qué mecanismos efectivos y ajustados al presupuesto hay para garantizar su cumplimiento. De igual forma, aún no se sabe si con este modelo de gobernanza es suficiente o si además se necesita de la inversión por parte del Estado para proveer herramientas no gratuitas, que sean más seguras y de mejor calidad.

Como sucede con cualquier modelo de gobernanza de IA en el mundo o contexto, su éxito o fracaso aún está por verse, sin que ello implique que se deba menospreciar el valor de este ejercicio que va más allá de “copiar” y “pegar” algo que haya hecho otro país o entidad, y que sin duda puede ser un punto de partida para todas aquellas organizaciones que en este momento buscan hacer frente a estos riesgos para sacar provecho de la IA sin abandonar la ética, responsabilidad y legalidad.